学习功能子空间实现神经网络压缩
🧭 低秩压缩 · 功能子空间学习 ★ 深度解读
Helmholtz Munich · Technical University of Munich · Télécom Paris · Columbia University · New York University
用端到端学习的正交投影子空间替代逐层闭式低秩截断，显著提升LLM/ViT高压缩比下的精度与推理效率
📌 工作参考价值（4 点）
- 在电商/广告/搜索的LLM部署中，可用LSP对底座或领域模型做低秩压缩：用线上日志、商品语料或搜索曝光文本作为校准集，冻结原权重、以KL蒸馏学习要删的子空间，比SVD/剪枝更适合极限压缩。
- 直接复用「按输出KL边际成本分配rank」：Q/K/V往往比MLP更可压，注意力层可更激进地降秩；避免均匀分配浪费参数，分配阶段无需梯度，便于工程落地。
- 借鉴tied projector共享Q/K/V输入因子：KV cache只存一个窄潜在向量，可显著降低长上下文用户序列、Agent记忆或会话历史的显存占用；配合Palu/MLA类实现效果明显。
- 训练后合并为标准低秩矩阵，无额外算子，容易接入TensorRT/vLLM等推理框架；warm-up、direction dropout和正交惩罚等技巧可直接迁移到自研压缩流程。
L0 正则化混合专家加速稠密大模型
🧭 LLM 推理加速 · L0 稀疏 MoE
YWZ, Chengdu, China · FuTu AI, Shenzhen, China · Wise AI, Melbourne, Australia
提出 L0-MoE，用 L0 正则化将稠密 LLM 转为稀疏 MoE，实现最高 2.5 倍加速且性能几乎不降
📌 工作参考价值（3 点）
- 在需要低延迟、高吞吐的 LLM 推理场景（如电商搜索 Agent、对话式推荐），可借鉴 L0-MoE 把已有 dense 模型快速转为稀疏 MoE，无需从头训练 MoE，节省大量计算资源。
- 动态 batching 与 domain-aware 数据集构建方法可迁移到垂直领域小模型的加速训练：先用聚类混淆矩阵挑选领域代表性数据，再动态组 batch，提升训练效率。
- 若业务中需要同时覆盖多领域（如搜索、广告、推荐），可考虑用 L0 正则化自动学习专家路由，减少手工设计 MoE 结构的工作量，同时获得 2 倍以上推理加速。
Llama-Mobile：VLM 的高效 2.7-bit 量化
🧭 VLM 量化与移动端高效推理
Graphcore Research · Arm
提出无需原始训练数据的 VLM 量化 pipeline 与 S3D8 2.7-bit 格式，将 Llama 3.2 11B 压缩至 3.7GB 并保持 VQA 性能
📌 工作参考价值（4 点）
- 业务里若需在端侧/边缘部署多模态模型（商品图理解、广告素材审核、图文客服），可借鉴“无原始训练数据 QAT”：用目标模型自生成校准数据，避免数据不可得和分布偏移。
- S3D8 2.7-bit 格式将三个有符号权重打包进一个字节，解码到 INT8 后推理，对 Arm CPU 友好；有移动端导购/Agent 或端上推荐模型时可评估该格式降低内存。
- 量化训练数据选择对性能很敏感：合成与部署分布匹配的数据比通用公开数据更稳，做模型压缩时值得投入数据构造。
- 11B VLM 压缩到 3.7GB 说明移动端内存预算可承载多模态大模型，适合端侧“拍照搜商品/图片问答”等场景。
UniMoMo：基于专家合并的推荐大模型 MoE 加速
🧭 MoE 压缩加速推荐模型
Kuaishou Technology · Hohai University · Wuhan University · ByteDance · Alibaba (Ant Group)
用无标签校准集度量专家功能相似性，结合路由曝光保护高频专家，将训练后推荐 MoE 压缩为小 MoE 并保持 NDCG
📌 工作参考价值（4 点）
- 若业务推荐模型已采用 MoE，可借鉴 UniMoMo 做不同 serving budget 的模型档位：用同一训练后 checkpoint 压缩出 2/4/8 等专家版本，线上按延迟或吞吐切换，避免为每个档位重新训练。
- 压缩时不要只看参数距离，可复用无标签校准集（用户交互序列/候选商品）比较专家在相同输入上的输出相似度，做功能聚类合并；这比 L2 权重距离更贴近推荐行为，能降低合并带来的排序损失。
- 引入 layer-adaptive protection：按 routing exposure（专家被路由的概率/流量占比）识别高频专家，限制其参与合并。电商推荐中头部流量专家通常承担关键用户群，保护它们能有效控制 NDCG 回退，尤其适合流量分布高度倾斜的场景。
- 该方法不增加线上压缩专用模块，最终导出标准 MoE，可直接替换现有推理服务；在 A100 上可取得 1.28×–2.21× 加速，适合广告/推荐精排阶段降低推理成本。
BaKron：基于Kronecker因式分解Hessian的高效量化加速
🧭 神经网络量化加速
University of California San Diego · Department of Mathematics · HDSI
利用双侧Kronecker-factored Hessian信息加速自适应舍入量化，复杂度与GPTQ同为立方级但精度更高
📌 工作参考价值（4 点）
- 在电商/推荐系统中部署大模型（如LLM-based推荐）时，可尝试用双侧曲率信息（输出坐标相关性）替代GPTQ仅依赖输入激活的量化方式，提升量化后模型精度。
- BaKron的递归分治与反斜对角并行策略可借鉴到自定义量化优化器中，将全矩阵量化成本从O(n⁴)降到O(n³)，尤其适用于推荐模型中中等规模投影层的高效压缩。
- 方法对基础量化器（如四舍五入、格子量化）和Hessian估计器解耦，允许在工程中灵活替换更精确的曲率近似（如KFAC），平衡精度与计算开销。
- 若直接在向量化权重上应用GPTQ式自适应舍入计算瓶颈过高，可采用BaKron的逐行/列交替更新框架，同时保持并行可行性，适配推荐系统在线serving的延迟要求。
κ-LoRA：用条件数发现哪些LoRA矩阵更值得更新
🧭 高效微调 · 条件数驱动的选择性LoRA
King Abdullah University of Science and Technology · Carnegie Mellon University
基于权重矩阵的条件数选择性更新LoRA参数，在匹配标准LoRA精度的同时减少约一半的参数量和16.2%的训练时间
📌 工作参考价值（4 点）
- 选择性微调的思路可直接用于推荐模型部署：在电商/广告推荐系统中，通常需对多个任务（CTR、CVR）或场景进行LLM微调，κ-LoRA表明不必更新所有权重矩阵，仅更新条件数大的50%矩阵即可保持效果，节省边缘端/实时更新的算力与内存。
- 条件数作为矩阵重要性的度量可嵌入自动化微调流程：条件数计算轻量，可在微调前快速评估各层权重的重要性，为模型裁剪、量化或稀疏更新提供依据，适用于在线学习的资源分配。
- 谱重平衡的思想可迁移到特征交互层或嵌入表更新：推荐模型中存在大量嵌入矩阵和交互矩阵，可类比用条件数识别哪些特征空间尚未充分学习，选择性进行微调或重训，提升资源利用率。
- 对于Agent中多模型微调的场景，κ-LoRA能有效降低联合微调成本：多Agent系统往往需对多个LLM进行适配，κ-LoRA的稀疏化更新策略可让不同Agent共享基座模型，仅更新各自相关的关键矩阵，减少显存和通信开销。
纯分数蒸馏：紧凑密集检索模型的压缩训练方法
🧭 知识蒸馏 · 密集检索压缩
Mohamed bin Zayed University of Artificial Intelligence
仅用教师模型输出的分数向量蒸馏学生模型，无需教师隐藏状态，实现 4.7× 查询编码加速
📌 工作参考价值（4 点）
- 黑盒蒸馏：只需要教师模型的分数输出，无需访问隐藏状态或嵌入，可直接蒸馏第三方大模型或 API 模型，适用于无法获取内部表示的闭源检索模型。
- 内存高效 PairMSE 损失：采用行中心分数向量目标替代显式 pairwise 边际计算，将内存复杂度从 O(k²) 降到 O(k)，适合大规模候选行训练，可直接用于电商搜索精排或双塔召回的蒸馏。
- 数据管线设计：论文给出了基于正样本和负样本候选行的数据生成流程，并单独评估了 student-teacher hard-negative mining，离线挖掘难负样本的策略可迁移至商品搜索的负样本构造。
- 在匹配协议下压缩有效：实验表明蒸馏在相同的检索协议（如推理阶段使用相同的候选生成方式）下可恢复 50% 的教师提升，但跨场景迁移不稳，提示部署时需保持检索协议一致性，避免直接泛化到不同检索配置。
移动端电影运镜生成扩散模型 CineMobile
🧭 移动端高效视频生成
Shanghai Jiao Tong University · Nankai University · Transsion
通过剪枝-蒸馏-量化三阶段优化，将大型视频扩散模型压缩至移动端，实现40倍加速的电影运镜生成
📌 工作参考价值（3 点）
- 主要是视觉生成领域的模型压缩贡献，对推荐/广告/Agent 系统的直接业务可借鉴点有限。
- 蒸馏引导的结构化剪枝策略可迁移至推荐模型压缩：先用蒸馏让剪枝后模型快速恢复能力，再联合微调。
- 强化学习与扩散蒸馏结合的少步生成方法，可为搜索推荐系统中使用扩散模型做生成式推荐（如 GenRec）时降低推理步数提供思路。
LogbQuant：在Log空间中量化语言模型
🧭 对数空间量化 · 权重压缩
Technical University of Munich
提出可调基的对数量化方法，在4-bit下性能优于非对称线性量化，适合消费级GPU
📌 工作参考价值（4 点）
- 在电商搜索/推荐场景中，若需本地部署LLM（如商品描述生成、对话式Agent），可尝试用LogbQuant做4-bit量化，在单张消费级GPU上运行，降低显存占用同时保持生成质量。
- 对数量化对存在少数大幅度权重的层（如FFN上投影）天然友好，可针对此类层单独使用对数域量化，或混合线性量化（例如关键层保留线性，其他层用LogbQuant）。
- 可调基数b的思想可迁移到其他量化场景：对不同张量/层自动搜索最优基数，以匹配各异的权重分布，提升整体精度。
- 实现上，查询表（LUT）与位打包可带来推理加速，适合对延迟敏感的在线推荐服务（如实时重排序或即时文案生成）。
TMP：大规模图像生成与编辑的树结构混合剪枝框架
🧭 大规模图像生成模型的结构化剪枝与优化
Multimodal Model Department, Tencent
首个树结构混合策略剪枝框架，统一 MoE 和 DiT 架构，将 80B 混元图像压缩至 20B（75%），质量损失有限，实现单卡推理
📌 工作参考价值（4 点）
- 剪枝策略的混合设计思想可迁移至大规模推荐模型（如多专家用户点击率模型）的压缩：针对不同模块（专家层、注意力层）采用差异化剪枝策略，而非一刀切
- 工程上实现 80B→20B 后单卡（24GB）推理的优化经验（如 KV cache 裁剪、内存调度）对部署巨型推荐模型有直接参考价值
- 树结构搜索最优剪枝率的方法论可借鉴：在推荐系统召回 / 排序模型的剪枝中，自动搜索各层的压缩比，平衡精度与效率
- MoE 架构的剪枝方案（如专家丢弃、路由剪枝）为电商搜索广告中的多专家模型（如多目标专家网络）压缩提供新思路
任务特定LLM蒸馏的缩放定律
🧭 LLM蒸馏缩放定律与监督格式
NVIDIA
量化了领域特定LLM压缩中数据集大小、压缩比、监督格式的缩放规律，发现思维链监督能恢复剪枝损失的通用知识。
📌 工作参考价值（4 点）
- 若对电商搜索/推荐中的 LLM 进行压缩（如商品分类、意图识别），使用思维链（CoT）监督可以显著恢复结构化剪枝损失的通用知识，避免模型变成纯粹的领域专家而丧失泛化能力。Label-only 蒸馏（直接 logit KD 或 LoRA fine-tune）会导致通用能力塌陷。
- 迭代剪枝+蒸馏（每步剪枝后重新蒸馏）明显优于一次性剪枝，更匹配生产环境中逐步压缩模型的工程流程；该策略可迁移到实时服务对延迟敏感的场景。
- 缩放定律给出明确的数据量-压缩比关系，实践中可据此预估：要将模型压缩到目标大小，需要准备多少领域数据；数据集过小时，CoT 监督的数据效率优势更明显。
- LoRA 蒸馏在 label-only 设定下保留了比直接 logit KD 更多的通用知识，如果由于成本无法生成 CoT 标注，优先选用 LoRA 蒸馏作为折中方案。
SVD-Surgeon：大语言模型的最优奇异值压缩手术
🧭 低秩压缩 · 二阶损失补偿
University of Freiburg · Prior Labs · ELLIS Institute Tübingen
将OBS框架引入SVD压缩，闭式更新保留奇异值以补偿截断损失，无需重训练
📌 工作参考价值（4 点）
- 将OBS补偿思想直接用于LLM的SVD压缩，无需微调即可提升压缩后模型质量，适合对延迟敏感的在线推荐或Agent系统快速迭代部署
- 奇异值重要性评估可指导结构化剪枝决策，例如在广告召回模型中按重要度保留关键秩，平衡吞吐与精度
- 方法即插即用，可叠加到现有SVD-LLM等压缩器上，工程实现成本低，可直接复用以压缩推荐系统中的语义编码器或生成模型
- 闭式更新公式仅需二阶导数信息，计算开销小，适合在大规模模型压缩流水线中作为后处理步骤
Simplex约束稀疏Bagging：集成学习从均匀先验到稀疏后验
🧭 集成学习压缩与概率校准
Georgia Institute of Technology
提出Simplex约束稀疏Bagging，通过凹二次惩罚在单纯形上实现集成剪枝与校准，压缩率达96%
📌 工作参考价值（4 点）
- 在推荐模型集成（如多模型融合）中，可直接使用SCSB对基模型权重进行稀疏化，仅保留最有价值的子集，显著降低线上推理延迟，特别适合实时推荐场景。
- 面向CTR预估等需要概率输出的任务，利用OOB损失优化权重能提升概率校准，降低期望校准误差，避免过自信预测，改善模型可信度和拍卖阶竞价效率。
- 方法模型无关，轻量级后处理，可快速集成到现有Bagging管道（如随机森林或Bagged NN）而不改动原始训练流程，方便在已有系统中试水。
- 避开L1在单纯形上失效的坑，通过凹二次惩罚产生真正稀疏解，验证了稀疏正则项与约束空间关系的工程陷阱，对设计其他概率约束稀疏化方案有参考价值。